![arxiv：2401.07836v3 [cs.cy] 2025年1月17日](/simg/e/ed1fae9d8114c13b4115700f64c1e445da9980d7.webp)
机构名称：
¥ 4.0
关于AI典型的生存风险（X风险）的传统论述集中在突然的，由先进的AI系统引起的严重事件，尤其是那些可能实现或超过人级的英特尔省的系统。这些事件具有严重的后果，可以导致人类的灭绝或不可逆转地削弱人类文明，以至于无法恢复。但是，这种话语通常忽略了AI X风险通过一系列较小但相互联系的破坏逐渐表现出来的严重可能性，随着时间的流逝，逐渐越过关键阈值。本文将常规的决定性AI X风险假设与累积的AI X风险假设进行了对比。虽然前者设想了以场景为特征的明显的AI接管途径，例如iOS，例如无法控制的超智能，但后者提出了一种存在生存灾难的因果途径。这涉及逐步积累关键的AI引起的威胁，例如严重的脆弱性和对经济和政治结构的全身侵蚀。累积假设表明一种沸腾的青蛙情景，其中内部AI风险慢慢融合，破坏了社会的弹性，直到触发事件导致不可逆的崩溃。通过系统分析，本文研究了这两个假设的不同假设。随后认为，累积观点可以调和对AI风险的看似不相容的观点。讨论了这些因果途径之间区分这些因果途径的含义 - 决定性和累积性对AI的治理以及长期AI安全性的含义。
arxiv：2401.07836v3 [cs.cy] 2025年1月17日
主要关键词
![arxiv：2401.07836v3 [cs.cy] 2025年1月17日PDF文件第1页](/bimg/2/211c2e6aec1858eb7f8f7fe36d31c1721db9991e.webp)
![arxiv：2401.07836v3 [cs.cy] 2025年1月17日PDF文件第2页](/bimg/2/24f7265afd52a6de2738450aaf2fbd9d2c45adf5.webp)
![arxiv：2401.07836v3 [cs.cy] 2025年1月17日PDF文件第3页](/bimg/d/d903a11adf6d23de64d2201b9ace036e90be755f.webp)
![arxiv：2401.07836v3 [cs.cy] 2025年1月17日PDF文件第4页](/bimg/a/a9681e1b9f453fab402af9e81dd355afc8b0e8d4.webp)
![arxiv：2401.07836v3 [cs.cy] 2025年1月17日PDF文件第5页](/bimg/8/8565e7fa6e96178b9de53296eadcdd1c7df275f7.webp)
相关文件推荐
![arxiv：2109.03538V2 [CS.IR] 2025年1月17日](/simg/6/6058da9a2bc9172d4d0f5919ccbae9ae916c594a.webp)
![arxiv：2501.10089v1 [cs.cv] 2025年1月17日](/simg/7/741beda39614c3a573d37b99ccd8947f62d2e5fa.webp)
![arxiv：2401.15299v3 [cs.lg] 2025年1月15日](/simg/f/f8cbc77dbb6432f4bd0a48c75f942515b1ed06f4.webp)
![arxiv：2401.07934v3 [Quant-ph] 2025年1月12日](/simg/3/374e854613bd5c64a2ee8378793089dd79186db4.webp)
![arxiv：2501.03098v1 [cs.cy] 2025年1月6日](/simg/0/0640eb5c37b4a83a64d8d1480db6e8310c00ca6b.webp)
![arxiv：2501.16548v1 [cs.cy] 2025年1月27日](/simg/2/262d6f30163a8eb0c50e9172a9933216d7297bfa.webp)
![arxiv：2501.09975v1 [cond-mat.stat-Mech] 2025年1月17日](/simg/d/d7aad8e811cd9d062ba973b9f9834669c6d2dc5d.webp)
![arxiv：2501.16165v1 [cs.cr] 2025年1月27日](/simg/1/171f982992eecabd89c58411b5c551f1b9e106a4.webp)
![arxiv：2401.11194v1 [cs.hc] 2024年1月20日](/simg/1/1a3f9ea1c0460303812f0f826c92b9a3cf68e8e6.webp)
![arxiv：2501.16848v1 [cs.lg] 2025年1月28日](/simg/e/e13cc1d46c0a6063406bda81c0bb68952e49eab6.webp)
![arxiv：2501.07447v1 [cs.lg] 2025年1月13日](/simg/b/bd85019652740d4af0b81f6cf8e79131ce64fb19.webp)
![arxiv：2401.05968v1 [cs.cv] 2024年1月11日](/simg/3/33efe67402bfe23c5057d0aa0708a382552940d6.webp)
![arxiv：2401.15296v2 [cs.cv] 2025年2月6日](/simg/9/9d2a6f090e28a0601a8097ce2cccc7a9e8f3504d.webp)
![arxiv：2501.16981v1 [cs.cv] 2025年1月28日](/simg/8/8fe8770514ff2f087487c1f519d3aa07c4215e9e.webp)
![arxiv：2401.05233v1 [cs.lg] 2024年1月10日](/simg/1/165b5a4a843a79a37ad3922732811d40d501167f.webp)
![arxiv：2502.14892v1 [cs.cv] 2025年2月17日](/simg/b/b495d4ee9dd26d76c8dad02913bbd55ecbbe1439.webp)
![arxiv：2501.04966v1 [cs.cv] 2025年1月9日](/simg/d/dea7ad7b96ec0868bc89135a1c4313459741b73c.webp)
![arxiv：2404.16918v2 [cs.lg] 2025年1月3日](/simg/d/d2c7b87e46918c7bd5604c692394a396160084d0.webp)
![arxiv：2309.04219v2 [cs.it] 2025年1月27日](/simg/1/130e8591bd1cf5217a3a3fdcdea93192ad9e755b.webp)
![arxiv：2501.15415v1 [cs.cv] 2025年1月26日](/simg/8/84782461405a7624ab37009ae9f74c6fa1c1bb44.webp)
![arxiv：2501.15369v1 [cs.cv] 2025年1月26日](/simg/4/4ad27d92a40e7e9934a51e62ccda0296dabb88fb.webp)
![arxiv：2401.06521v1 [cs.cv] 2024年1月12日](/simg/a/ac4e8a79e62bb77bebd81435441586ea29fdf974.webp)
![arxiv：2501.04352v1 [cs.cv] 2025年1月8日](/simg/2/20b4b7601c5e5a91b018a205c40e7fc43aa3e198.webp)